A Study of Deep Learning Robustness Against Computation Failures

For many types of integrated circuits, accepting larger failure rates in computations can be used to improve energy efficiency. We study the performance of faulty implementations of certain deep neural networks based on pessimistic and optimistic models of the effect of hardware faults. After identifying the impact of hyperparameters such as the number of layers on robustness, we study the ability of the network to compensate for computational failures through an increase of the network size. We show that some networks can achieve equivalent performance under faulty implementations, and quantify the required increase in computational complexity

Learning Local Receptive Fields and their Weight Sharing Scheme on Graphs

We propose a simple and generic layer formulation that extends the properties of convolutional layers to any domain that can be described by a graph. Namely, we use the support of its adjacency matrix to design learnable weight sharing filters able to exploit the underlying structure of signals in the same fashion as for images. The proposed formulation makes it possible to learn the weights of the filter as well as a scheme that controls how they are shared across the graph. We perform validation experiments with image datasets and show that these filters offer performances comparable with convolutional ones.Comment: To appear in 2017, 5th IEEE Global Conference on Signal and Information Processing, 5 pages, 3 figures, 3 table

Le projet SEBIOPAG-PHYTO : déterminants agricoles parcellaires et paysagers des variations de niveaux de régulation biologique

Ce séminaire est une restitution des principales avancées obtenues dans le cadre des projets ANR PEERLESS «viabilité d’une gestion écologique renforcée de la santé des plantes dans les paysages agricoles » (2013-2017) et FRB SEBIOPAG-PHYTO «déterminants agricoles parcellaires et paysagers des variations de niveaux de régulation biologique » (2014-2017). Le séminaire a rassemblé 60 scientifiques, pour moitié extérieure aux unités INRA partenaires de ces projets. Il s'est déroulé à Paris Paris les 27-28 novembre 2017

Les effets conjugués de la gestion parcellaire et du contexte paysager et de sa dynamique sur les bioagresseurs et les niveaux de régulation biologique

Ce séminaire est une restitution des principales avancées obtenues dans le cadre des projets ANR PEERLESS «viabilité d’une gestion écologique renforcée de la santé des plantes dans les paysages agricoles » (2013-2017) et FRB SEBIOPAG-PHYTO «déterminants agricoles parcellaires et paysagers des variations de niveaux de régulation biologique » (2014-2017). Le séminaire a rassemblé 60 scientifiques, pour moitié extérieure aux unités INRA partenaires de ces projets. Il s'est déroulé à Paris Paris les 27-28 novembre 2017

Convolution et apprentissage profond sur graphes

Convolutional neural networks have proven to be the deep learning model that performs best on regularly structured datasets like images or sounds. However, they cannot be applied on datasets with an irregular structure (e.g. sensor networks, citation networks, MRIs). In this thesis, we develop an algebraic theory of convolutions on irregular domains. We construct a family of convolutions that are based on group actions (or, more generally, groupoid actions) that acts on the vertex domain and that have properties that depend on the edges. With the help of these convolutions, we propose extensions of convolutional neural netowrks to graph domains. Our researches lead us to propose a generic formulation of the propagation between layers, that we call the neural contraction. From this formulation, we derive many novel neural network models that can be applied on irregular domains. Through benchmarks and experiments, we show that they attain state-of-the-art performances, and beat them in some cases.Pour l’apprentissage automatisé de données régulières comme des images ou des signaux sonores, les réseaux convolutifs profonds s’imposent comme le modèle de deep learning le plus performant. En revanche, lorsque les jeux de données sont irréguliers (par example : réseaux de capteurs, de citations, IRMs), ces réseaux ne peuvent pas être utilisés. Dans cette thèse, nous développons une théorie algébrique permettant de définir des convolutions sur des domaines irréguliers, à l’aide d’actions de groupe (ou, plus généralement, de groupoïde) agissant sur les sommets d’un graphe, et possédant des propriétés liées aux arrêtes. A l’aide de ces convolutions, nous proposons des extensions des réseaux convolutifs à des structures de graphes. Nos recherches nous conduisent à proposer une formulation générique de la propagation entre deux couches de neurones que nous appelons la contraction neurale. De cette formule, nous dérivons plusieurs nouveaux modèles de réseaux de neurones, applicables sur des domaines irréguliers, et qui font preuve de résultats au même niveau que l’état de l’art voire meilleurs pour certains

On convolution of graph signals and deep learning on graph domains

Pour l’apprentissage automatisé de données régulières comme des images ou des signaux sonores, les réseaux convolutifs profonds s’imposent comme le modèle de deep learning le plus performant. En revanche, lorsque les jeux de données sont irréguliers (par example : réseaux de capteurs, de citations, IRMs), ces réseaux ne peuvent pas être utilisés. Dans cette thèse, nous développons une théorie algébrique permettant de définir des convolutions sur des domaines irréguliers, à l’aide d’actions de groupe (ou, plus généralement, de groupoïde) agissant sur les sommets d’un graphe, et possédant des propriétés liées aux arrêtes. A l’aide de ces convolutions, nous proposons des extensions des réseaux convolutifs à des structures de graphes. Nos recherches nous conduisent à proposer une formulation générique de la propagation entre deux couches de neurones que nous appelons la contraction neurale. De cette formule, nous dérivons plusieurs nouveaux modèles de réseaux de neurones, applicables sur des domaines irréguliers, et qui font preuve de résultats au même niveau que l’état de l’art voire meilleurs pour certains.Convolutional neural networks have proven to be the deep learning model that performs best on regularly structured datasets like images or sounds. However, they cannot be applied on datasets with an irregular structure (e.g. sensor networks, citation networks, MRIs). In this thesis, we develop an algebraic theory of convolutions on irregular domains. We construct a family of convolutions that are based on group actions (or, more generally, groupoid actions) that acts on the vertex domain and that have properties that depend on the edges. With the help of these convolutions, we propose extensions of convolutional neural netowrks to graph domains. Our researches lead us to propose a generic formulation of the propagation between layers, that we call the neural contraction. From this formulation, we derive many novel neural network models that can be applied on irregular domains. Through benchmarks and experiments, we show that they attain state-of-the-art performances, and beat them in some cases

A Unified Deep Learning Formalism For Processing Graph Signals

2 pages, short versionConvolutional Neural Networks are very efficient at processing signals defined on a discrete Euclidean space (such as images). However, as they can not be used on signals defined on an arbitrary graph, other models have emerged, aiming to extend its properties. We propose to review some of the major deep learning models designed to exploit the underlying graph structure of signals. We express them in a unified formalism, giving them a new and comparative reading

Translation sur graphe avec préservation du voisinage

National audienceDans de nombreux domaines comme l'Internet des Objets ou la neuroimagerie, les signaux sont naturellement portés par des graphes. Ces derniers contiennent généralement des informations sur la similarité des valeurs de signaux observées aux différents sommets. L'un des intérêts à utiliser des graphes est qu'ils permettent de définir des opérateurs adaptés pour traiter les signaux qui y évoluent. Parmi ces opérateurs, un de prime importance pour de nombreux problèmes est la translation. Dans cet article, nous proposons de nouvelles définitions pour la translation sur graphe s'appuyant sur un nombre faible de propriétés simples. Plus précisément, nous proposons de définir ces translations comme des fonctions des sommets du graphe vers leurs voisins, préservant les relations de voisinage. Nous montrons que nos définitions, contrairement aux autres travaux sur le sujet, généralisent les translations usuelles sur des graphes grilles

Metropolitan Police Service No.3 Area North East

SIGLEAvailable from British Library Document Supply Centre-DSC:7498.810571(1996) / BLDSC - British Library Document Supply CentreGBUnited Kingdo